隐私权联合学习允许多个用户与中央服务器协调共同培训模型。服务器仅学习最终聚合结果,从而防止用户(私有)培训数据从单个模型更新中泄漏。但是,保持单个更新私有,使恶意用户可以执行拜占庭式攻击并降低模型准确性,而无需检测到。针对拜占庭工人的最佳防御能力依赖于基于排名的统计数据,例如中位数,以查找恶意更新。但是,在安全域中实施基于隐私的排名统计信息在安全域中是不平淡无奇的,因为它需要对所有单个更新进行排序。我们建立了第一个私人鲁棒性检查,该检查在汇总模型更新上使用基于高断点等级的统计信息。通过利用随机聚类,我们在不损害隐私的情况下显着提高了防御的可扩展性。我们利用零知识证明中的派生统计界限来检测和删除恶意更新,而无需透露私人用户更新。我们的新颖框架Zprobe可以使拜占庭式的弹性和安全的联合学习。经验评估表明,Zprobe提供了低架空解决方案,以防御最新的拜占庭袭击,同时保留隐私。
translated by 谷歌翻译
Video compression plays a crucial role in video streaming and classification systems by maximizing the end-user quality of experience (QoE) at a given bandwidth budget. In this paper, we conduct the first systematic study for adversarial attacks on deep learning-based video compression and downstream classification systems. Our attack framework, dubbed RoVISQ, manipulates the Rate-Distortion ($\textit{R}$-$\textit{D}$) relationship of a video compression model to achieve one or both of the following goals: (1) increasing the network bandwidth, (2) degrading the video quality for end-users. We further devise new objectives for targeted and untargeted attacks to a downstream video classification service. Finally, we design an input-invariant perturbation that universally disrupts video compression and classification systems in real time. Unlike previously proposed attacks on video classification, our adversarial perturbations are the first to withstand compression. We empirically show the resilience of RoVISQ attacks against various defenses, i.e., adversarial training, video denoising, and JPEG compression. Our extensive experimental results on various video datasets show RoVISQ attacks deteriorate peak signal-to-noise ratio by up to 5.6dB and the bit-rate by up to $\sim$ 2.4$\times$ while achieving over 90$\%$ attack success rate on a downstream classifier. Our user study further demonstrates the effect of RoVISQ attacks on users' QoE.
translated by 谷歌翻译
电液动力学 - 喷射(电子喷射)印刷技术能够实现复杂软电子设备的高分辨率印刷。因此,它具有可比的电位,用于成为打印软电子设备的传统技术。在该研究中,研究了电子喷射印刷电路的电导率作为关键印刷参数的函数(喷嘴速度,墨水流量和电压)。然后使用收集的实验数据集来训练机器学习算法,以建立能够实时预测印刷电路特性的模型。比较精度参数以评估监督分类模型。由于决策树方法无法提高高于71%的准确性,因此在我们的数据集上执行更高级的算法,以提高模型的精度。根据F测量值,K-NN模型(K = 10)和随机森林是分类电极电导率的最佳方法。 Adaboost Ensemble学习的最高准确性导致了10-15棵树(87%)。
translated by 谷歌翻译
我们提出了HashTAG,这是一种在检测性能上具有可证实范围的深度神经网络(DNN)对故障注射攻击的高精度检测的第一个框架。故障注射攻击中最近的文献显示了尺寸翻转引起的严重DNN精度劣化。在这种情况下,攻击者通过篡改程序的DRAM存储器来在DNN执行期间改变几个权重位。要检测运行时位翻转,HashTag在部署之前从良性DNN中提取唯一签名。签名后来用于验证DNN的完整性,并验证推动输出在速度。我们提出了一种新颖的敏感性分析方案,可准确地将最脆弱的DNN层识别到故障注射攻击。然后通过使用低碰撞散列函数对易受攻击层中的基础重量进行编码来构建DNN签名。部署DNN时,在推理期间从目标层提取新的哈希,并与地面真相签名进行比较。 HASHTAG采用了一种轻量级方法,可确保嵌入式平台上的低开销和实时故障检测。对各种DNN的最先进的位翻转攻击的广泛评估在攻击检测和执行开销方面,展示了HashTAG的竞争优势。
translated by 谷歌翻译